L'intelligenza artificiale di Google "allucina" sull'incidente aereo in India e modifica il modello dell'aereo
Google Overviews, la nuova funzionalità di intelligenza artificiale integrata nel motore di ricerca , ha commesso un errore notevole: in seguito allo schianto aereo del volo AI171 in India, l'intelligenza artificiale ha confuso il modello dell'aereo coinvolto, mescolando i riferimenti a un Boeing 787 con un Airbus A330 e visualizzando le informazioni come se fossero del tutto affidabili.
Questo tipo di errore è noto come "allucinazioni", un fenomeno tipico dei sistemi di intelligenza artificiale generativa che consiste nell'inventare dati o risposte che sembrano veri. A differenza di un motore di ricerca tradizionale che rimanda alle fonti, strumenti come Google Overviews tentano di "riassumere" il web e a volte combinano erroneamente i contenuti, causando errori che possono essere critici in contesti delicati come una tragedia.
Cosa è successo con le panoramiche di GoogleGiovedì scorso, in India, si è verificato un grave incidente aereo: un Boeing 787 di Air India si è schiantato poco dopo il decollo. Più di 260 persone sono morte , tra cui diverse a terra. È una tragedia che ha avuto un impatto mondiale e, come spesso accade, molti utenti hanno iniziato a cercare informazioni su internet per scoprire cosa fosse successo e che tipo di aereo fosse coinvolto. Ma qui è emerso un problema con l'intelligenza artificiale di Google.
Il suo strumento di IA Panoramiche , che genera risposte automatiche in base ai risultati di ricerca, ha iniziato a fornire informazioni errate. Alcuni utenti hanno notato che, quando cercavano informazioni sull'incidente, l' IA rispondeva con sicurezza che l'aereo era un Airbus A330 , altre volte invece che si trattava di un Boeing 787 , e a volte anche confondeva entrambi i nomi. Un vero disastro.
Perché l'intelligenza artificiale di Google ha sbagliato il modello dell'aereo coinvolto nell'incidente indianoSecondo ArsTechnica , questa IA funziona riassumendo ciò che trova su internet , ma non sempre comprende appieno ciò che legge. Molti articoli sull'incidente menzionano Airbus come concorrente di Boeing. Questo potrebbe averla confusa, inducendola a dire qualcosa di sbagliato, pur sembrando molto sicura di sé.
Google si è espressa, chiarendo che la sua IA può commettere errori e che aggiunge un avviso alla fine di ogni riepilogo generato, ma il problema è che questo avviso è facile da ignorare . In questo caso, l'errore potrebbe aver irritato Airbus , poiché il suo nome era legato a un incidente che non aveva nulla a che fare con i suoi aerei.
L'azienda di Mountain View ha confermato di aver eliminato quella risposta errata , ma questo ci porta a una conclusione relativa all'intelligenza artificiale: sebbene questi tipi di strumenti possano essere utili, non sempre ci si può fidare completamente di ciò che dicono , quindi è necessario verificare attentamente le informazioni.
20minutos
